人工知能（AI）は、ハイテクの研究所やハリウッド映画のストーリーにとどまらず、一般の人々の手まで広がりつつあります。 テキスト生成ツールChatGPTは今さら紹介するまでもなく、またAIアート ジェネレーター（MidjourneyやDALL-Eなど）も絶大な人気を誇っています。意味のないプロンプトを入力して、おもしろいアート クリップの出力を受け取るのは、格好のひまつぶしになります。 しかし、皆さんがAIアート ジェネレーターで遊んでいる間にも、サイバー犯罪者は人々をだます手口を駆使し、センセーショナルなフェイク ニュース、偽の出会い系プロフィール、有害ななりすましの身元などを信じ込ませようとしています。AIが生成した精巧なアートを見抜くのは難しいかもしれません。そこで今回の記事では、見せられている画像に不審な点があること、あるいはAI生成のプロフィールの背後に犯罪者が潜んでいることなどを示す兆候をいくつか紹介します。
AIアート ジェネレーターとディープフェイクについて
それぞれがもたらすサイバー脅威を深く理解できるように、簡単な定義を以下に示します。
- AIアート ジェネレーター。 生成AIとは通例、アート ジェネレーターの背後にあるAIの特殊なタイプです。この種のAIは、何十億ものアート作品のサンプルを学習しています。プロンプトを与えると、このAIはその膨大なライブラリを閲覧しながら、与えられたプロンプトを最もよく満たすと考えられるアート作品の組み合わせを選び出します。AIアートがアートの世界で議論の的になっているのは、AIが作り出す作品が厳密にはどれもオリジナルとはいえないからです。AIはさまざまなアーティストの作品をもとに最終的な作品を作り出していますが、大半のアーティストはコンピューター プログラムに作品の使用を許可していません。
- ディープフェイク。 ディープフェイクとは、実在する人物の写真や動画を加工したものです。その結果、実在の人物を編集してまったく新しい人物を作り上げることもあれば、元の被写体になった人が実際にはやらなかったことをやっているよう見えるよう悪用されることもあります。
AIアートやディープフェイクは決して、ダーク ウェブで見られる技術ではありません。FaceStealerやFleecewareといったAIアートやディープフェイクのアプリは誰でもダウンロードできます。違法な技術ではなく、罪のない用途も多いため、規制が難しいのです。 AIアートはどのように悪用されるか AIアートを使って、ソーシャル メディアのプロフィールのカバー写真を作成したり、ブログ投稿と組み合わせたりするのは、まったく問題ありません。ただし、オーディエンスに対しては透明性を保ち、オリジナルのアート作品ではないことを示す免責事項やキャプションを入れておくのがベストです。AIアートが悪意あるものに変わるのは、人が画像を利用して意図的に他人をだまし、そこから金銭的な利益を得ようとする場合です。 なりすまし犯は、自分たちが本当に恋人を探していると相手に思わせることを狙ってディープフェイクのプロフィール写真や動画を使う場合があります。本当の顔や身元を明かしてしまうと、なりすましが露見する危険性があるため、他人の写真を使うか、写真のライブラリ全体からディープフェイクを利用するのです。 フェイク ニュースを悪用する攻撃者は、陰謀論に「信憑性」を持たせるために、AIアートやディープフェイクの助けを借りることもあります。センセーショナルな見出しに、一見したところ正当性を証明できるような写真を添えれば、人々がそのニュースを共有し、拡散する可能性が高まります。フェイク ニュースが社会にダメージを与えるのは、大勢の人に強烈な否定的感情を抱かせるからです。その結果、極度な興奮や怒りが、ときには暴力に発展するケースがあります。 最後に、ディープフェイクを使用してフェイスIDを欺き、機密性の高いオンライン アカウントに侵入する犯罪者もいます。信頼している人が実際とは違うことを言ったように見せかけることもできるからです。悪質があり誤解を招くディープフェイクに対する防御策として、マカフィー ディープフェイク検知をお試しください。ディープフェイクでアカウントに侵入されるのを防ぐために、 多要素認証でアカウントを保護しましょう。多要素認証とは、口座を開設するときなどに複数の本人確認手法が必要になるということです。その手法としては、フェイスIDのほか、携帯電話に送信されるワンタイム コード、パスワード、セキュリティ上の質問に対する回答、指紋認証などがあります。
フェイク画像を見破る3つの方法
オンラインで交際を始めたり、ソーシャル メディアで新しそうな記事をシェアしたりする前に、以下の3つのヒントを参考にして画像を精査し、悪意のあるAIが生成したアートやディープフェイクを見分けましょう。
1. 画像の前後の文脈を調べる
フェイク画像が単独で使われることは、まずありません。ほとんどの場合、その周囲には文章や大きな記事が配置されています。文章に、誤字脱字や文法上の誤り、文章構成の全体的な不備がないかどうか調べましょう。フィッシング詐欺犯の文章力が低いことは広く知られています。AIが生成した文章は、文法やスペルが正しいことが多いため検出が難しくなります。それでも、一文一文が雑だったりします。
2. 主張を評価する
画像が異常すぎてリアルとは思えないことはありませんか。できすぎていて本当とは思えないこともありそうです。「インターネットで読んだことは何でも信じられるわけではない 」という現代的な格言をさらに発展させて、「インターネットで見たものは何でも信じられるわけではない 」と考えましょう。正しいかどうか疑わしいニュースについては、別の場所で同じような見出しのニュース記事を検索してください。本当に注目すべき話題なのであれば、他のサイトが少なくとも1つは報道しているはずです。
3. 画像の異常をチェックする
AI技術は手の指を1本か2本多く生成することもよくありますし、ディープフェイクは魂がない、あるいは死んだような目の画像を生成します。また、不自然な場所に影ができたり、肌の色が不均一に見えたりすることもあります。ディープフェイク動画では、音声や表情が整いすぎていて、被写体がロボットのようにぎこちなく見えることもあります。
マカフィーでオンラインの安全性を高めましょう
フェイク画像を見破るのは困難ですし、技術が進歩すればするほど、さらにリアルになっていくでしょう。新たなAIの脅威を認識できれば、オンライン生活をうまく乗り切る心構えも強化されます。ディープフェイクやAIアートと、本物の人物や人間が作ったアート作品を比較するクイズがネットに上がっています。すきま時間があるときなどにそういうクイズに挑戦し、自分の間違え方を踏まえて、悪意のあるフェイク アートを見分けられるようになりましょう。 オンライン生活のセキュリティにもっと自信を持てるように、マカフィーをご利用ください。 McAfee＋ ウルティメイトは、プライバシー、アイデンティティ、デバイスのセキュリティをオールインワンで提供するサービスです。ファミリー プランなら、ご家族を最大6人まで保護し、ID・個人情報盗難補償を最高200万ドルまで受けることができます。マカフィーを利用して、監視の目をくぐり抜けてくる脅威を阻止しましょう。
最新情報を入手する
フォローして、マカフィーに関する最新情報を取得して消費者やモバイルのセキュリティ脅威について理解しましょう
